Ông sinh ra trong một gia đình Do Thái ở Potsdam. Ông học tại Đại học Berlin, nơi ông đậu Ph.D vào năm 1825, luận văn của ông là về giải tích của các phân số. Vào năm 1827 ông trở thành giáo sư toán tại Đại học Königsberg, một vị trí ông nắm cho đến năm 1842. Jacobi bị ngã quỵ vì làm việc quá căng thẳng vào năm 1843. Sau đó ông ghé thăm Ý một vài tháng để lấy lại sức khỏe. Khi trở lại Berlin, ông sống bằng tiền lương hưu của hoàng gia đến khi qua đời. Jacobi được chôn cất ở một nghĩa trang trong khu Kreuzberg của thành phố Berlin, tên gọi Friedhof II der Jerusalems- und Neuen Kirchengemeinde (61 Baruther Street). Mộ của ông gần mộ của Johann Encke, một nhà thiên văn học.

Trong Cách mạng 1848 Jacobi có dính đến chính trị và không thành công trong việc trở thành một nghị sĩ đại diện cho một nhóm Tự do. Điều này đã dần đến việc ông bị mất tiền hưu hoàng gia sau khi Cách mạng bị dập tắt, nhưng uy tín và tiếng tăm ông lớn đến nổi tiền hưu được nối lại không lâu sau đó.